ในช่วงที่นาซีบุกสหภาพโซเวียตในเดือนมิถุนายน พ.ศ. 2484 สตาลินได้แต่งตั้งอุสตีนอฟ วัย 32 ปีเป็นผู้บังคับการกรมอาวุธยุทโธปกรณ์[1]เขาดูแลการอพยพใหญ่ของอุตสาหกรรมป้องกันจาก การล้อมเลนินกราด ไปทางทิศตะวันออกของเทือกเขายูรัล กว่า 80 โรงงานทหารได้อพยพลูกจ้างคนงานช่างเทคนิคและวิศวกรรวมกันมากกว่า600,000คน สตาลินได้ให้เหรียญฮีโร่พรรคสังคมนิยมแรงงานในภายหลัง หลังสงคราม อุสตีนอฟ, เกออร์กี มาเลนคอฟ, และมิฮาอิล ครุนนิเชฟ เริ่มโครงการขีปนาวุธโซเวียตและจรวด เป็นแรงผลักดันในการสร้างขีปนาวุธและโครงการอวกาศของโซเวียต

ในปี พ.ศ. 2495 อุสตีนอฟกลายเป็นสมาชิกของคณะกรรมการกลาง ในเดือนมีนาคม พ.ศ. 2496 หลังจากที่สตาลินเสียชีวิตกระทรวงอาวุธยุทโธปกรณ์ได้ร่วมกับกระทรวงอุตสาหกรรมการบินที่จะกลายเป็นกระทรวงอุตสาหกรรมกลาโหมโดยอุสตีนอฟรับมอบหมายให้เป็นหัวหน้าของกระทรวงใหม่นี้ ในปี พ.ศ. 2500 เขาได้รับการแต่งตั้งเป็นรองนายกรัฐมนตรีของสหภาพโซเวียตและกลายเป็นประธานของคณะกรรมาธิการทหารอุตสาหกรรม